Knowledge Topic
Prompt Injection
讨论天数
1
贡献者
1
提到工具
7
核心洞见
Prompt Injection 防御不能只靠模型自觉，入口规则和调用前检查都要做。
规则库应覆盖指令劫持、身份伪造、系统标记伪造、越狱、元指令和多语言绕过。
rule_then_llm 是更均衡的模式：规则快速筛查，LLM 再做语义确认。
拦截动作要分级，避免把所有可疑输入都粗暴删除导致业务误伤。
Knowledge Topic
讨论天数
1
贡献者
1
提到工具
7
Prompt Injection 防御不能只靠模型自觉，入口规则和调用前检查都要做。
规则库应覆盖指令劫持、身份伪造、系统标记伪造、越狱、元指令和多语言绕过。
rule_then_llm 是更均衡的模式：规则快速筛查，LLM 再做语义确认。
拦截动作要分级，避免把所有可疑输入都粗暴删除导致业务误伤。